Synthesize and Reward -- Reinforcement Learning for Multi-Step Tool Use in Live Environments
合成并奖励：面向在线环境的多步工具调用的强化学习
🧭 Agent 多步工具使用 · 强化学习奖励设计 ★ 深度解读
IBM Research
提出 PROVE 框架，通过 live MCP 环境、状态感知合成与无 judge 的多组件程序化奖励，用 RL 提升多步工具调用
📌 工作参考价值（4 点）
- 状态感知的数据合成：通过依赖图和 live 状态采样生成多轮轨迹，确保参数引用真实实体，避免合成数据不可执行，可直接用于训练电商 Agent（如查询商品、下单、退款）。
- 无 judge 的分解式程序化奖励：将奖励拆分为有效性、覆盖率、效率惩罚、工具名奖励、参数值匹配，不需要 LLM judge。效率惩罚采用复杂度自适应的调用预算，能抑制模型无意义的多余工具调用，对生成式推荐的多步骤控制有直接参考价值。
- 适应性效率惩罚：根据任务所需的 ground-truth 调用数动态设置预算（B = n_gt + ceil(n_gt * 0.5)），超过预算才受罚，既鼓励探索又避免冗余，这种设计可以迁移到多步 Agent 的步骤数约束。
- RL 训练优于 SFT：用相同数据做 SFT 会导致 τ2‑bench 性能下降，而 RL 保持提升，说明执行反馈和奖励信号对多步对话行为至关重要，提示我们应在实际业务中耦合 RL 训练循环而非单纯依赖 SFT。